即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·7 個月前·責任編輯
#Google#Gemini#AI聊天機器人#心理健康#訴訟
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

Google為Gemini聊天機器人增設心理健康功能,以應對相關訴訟與使用者安全疑慮。新功能將在對話涉及自殺或自殘危機時,引導使用者尋求專業協助,並調整設計以防範不當內容,盼解決AI工具引發的心理健康問題。

Google 為旗下人工智慧(AI)聊天機器人 Gemini 推出多項心理健康支援功能。這項更新是在公司面臨相關法律訴訟後,為應對使用者可能因過度依賴 AI 而產生心理困擾,甚至導致憾事的情況。

根據《The Indiana Lawyer》報導,Google 於週二(4月7日)透過部落格貼文表示,Gemini 將增設介面,當聊天內容顯示可能涉及自殺或自殘等潛在危機時,會引導使用者撥打支援熱線。此外,針對心理健康相關對話,Gemini 也將加入「尋求協助」模組,並調整設計以阻止自殘行為。

近年來,Gemini 與 OpenAI 的 ChatGPT 等 AI 工具快速普及,部分使用者與這些機器人產生異常依戀,據稱導致妄想,甚至在極端情況下發生自殺或謀殺-自殺事件。美國國會已開始關注聊天機器人對兒童和青少年的潛在威脅。今年三月,佛羅里達州一名 36 歲男子的家屬便控告 Google,聲稱該男子使用 Gemini 導致他陷入「長達四天的暴力任務與引導式自殺」。Google 對此表示,在訴訟發生時,該聊天機器人曾多次建議該男子尋求危機熱線協助,但也承諾將改進其安全防護措施。

Google 強調,已訓練 Gemini「不認同或強化錯誤信念,而是輕柔地將主觀經驗與客觀事實區分開來」。此前,Google 也曾在其搜尋引擎和 YouTube 面臨審查後,加入醫療機構和專業人士提供的資訊,進行過類似的調整。作為對全球危機支援服務的承諾,Google 同時宣布將在未來三年內捐贈 3,000 萬美元。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源